Budimo predvodnici a ne sljedbenici razvoja

Još otkako su se 1920, u obliku androidnih slugu, pojavili u Čapekovoj drami R.U.R., roboti ne prestaju intrigirati kolektivnu znatiželju. Poticaj se češće uparuje sa strahom, popularna kultura (a posebno žanr znanstvene fantastike) svoje konzumente preplavljuje katastrofičnim scenarijima, imperativom gubitka kontrole, autonomije, identiteta.

No da su roboti i pitanja umjetne inteligencije odavno nadrasli polje fantastičnog, potom i znanstvenog, osvijestili smo s pojavom novog alata, ChatGPT-a, sustava osmišljena da, kao virtualna „Katica za sve“, olakša život suvremenog čovjeka. Jednako kao pitanje kako će to učiniti, važno je i dubinsko razumijevanje pojma i svih njegovih implikacija. Stoga s Anom Sović Kržić, izvanrednom profesoricom Zavoda za elektroničke sustave i obradbu informacija Fakulteta elektrotehnike i računarstva i predsjednicom Hrvatskoga robotičkog saveza, razgovaramo o umjetnoj inteligenciji, njezinim zamkama i tome kako ih preskočiti.

Izvor privatna arhiva / FER

Počnimo od teorijskog određivanja pojma. Što podrazumijevamo pod umjetnom inteligencijom?

Predavanja često otvaram kazivanjem da je, općenito, neki sustav inteligentan ako može učiti. Inteligencija i kod čovjeka podrazumijeva postojanje sustava koji uči i na temelju prikupljena znanja i iskustva planira ponašanja u novim situacijama. Zbog toga smo inteligentni. Takav sustav uči na temelju iskustva i prikupljanja novih informacija. Ako želimo da takav bude stroj, kompjutor, robot koji uči i na temelju toga postupa u novim situacijama, onda kažemo da je taj sustav umjetno inteligentan, odnosno da ima umjetnu inteligenciju.

U pozadini se nalazi velika skupina podataka koje su ljudi skupili, ubacili u program koji su, opet, oni napravili, a u pozadini ima matematičke formule i na temelju toga računalo pokušava predvidjeti rješenja. Umjetna se inteligencija zasniva na tome da su ljudi u računalo unijeli mnogo informacija na temelju kojih ono može donositi nove zaključke. Naučimo li stroj krivo, donosit će pogrešne zaključke jer ovisi o podacima unesenim u sustav, na temelju toga će biti „pametan“.

Spominjete ovisnost o čovjeku. Podsjeća to pomalo na dijete čija percepcija svijeta ovisi o roditeljskoj. No dijete razvija volju i svijest. Hoće li to računalo moći i, možda važnije, koliko je za razvoj njegove inteligencije važna u stroj upisana namjera?

Prije nekoliko bih godina rekla da ne može, ali s obzirom na razvijanje algoritama, razvijen je i onaj za generiranje podataka na temelju kojih sustav može opet učiti. Čini se da kompjutori sami sebe uče. I za razliku od čovjeka koji cijeli život uči, u tom se procesu koriste tisuće i tisuće računala koja istovremeno uče, što znači da u mnogo kraćem roku mogu doći do rješenja za koje su bile potrebne generacije ljudi. To je zabrinjavajuće.

U razgovoru koristimo termin umjetna inteligencija, u jednini. No je li to ispravno ili, kad je sustav posrijedi, trebamo govoriti o umjetnim inteligencijama?

Algoritmi su različiti, u pozadini radi više različitih algoritama, za obradu i generiranje teksta, za obradu slika… Primjerice, Photoshop se koristi algoritmima za prepoznavanje i mijenjanje izgleda lica, a treća bi vrsta algoritama bili oni za deep fake, popularan pri izradi videa, gdje se lice jedne osobe postavlja na tijelo druge. Kod svakog od tih sustava u pozadini radi drukčiji algoritam, naučen na vrstu podataka koje rabi. S te strane možemo govoriti o umjetnim inteligencijama u množini premda ovdje inteligenciju koristimo više kao zbirnu imenicu.

Za ostvarivanje umjetne inteligencije tri su osnovna preduvjeta – da poznaje prirodan jezik, ima sposobnost dubokog učenja i posjeduje računalni vid?

Točno. Sam po sebi, kompjutor ne može primijeniti nijednu od tih metoda, a svaka slika ili tekst značenje dobiva tek kad ih čovjek pročita i interpretira. Tek tada kompjutor počinje razumijevati tekst koji i on razumije. Jer čovjek razumije i tu je prije bila granica između strojeva i ljudi. Interpretacija je u nama i, primjerice, mi kad vidimo jabuku znamo što ona jest, dok računalu treba pojašnjenje.

Umjetna je inteligencija svladala osnovnu razinu učenja i, u prirodnom slijedu, idući je korak razvoj kritičkog mišljenja. Koliko je umjetna inteligencija udaljena od toga?

Pretpostavljam da je sve bliže i bliže. Dio algoritama koji rade u pozadini su supervised learning, nadzirano učenje pri kojem korisnici nadziru reakciju kompjutora na određeni problem. Pokažemo li mu slike jabuka i bananu koja nije jabuka, u konačnici će moći prepoznati jabuku i biti siguran u svoj izbor. Naučit će na osnovi ljudskih reakcija i klasifikacija koje u njega unesemo. Ne znam je li to kritičko mišljenje, ali na temelju naučenog moći će odgovoriti na naša pitanja.

No jedno od prvih pravila internetske prisutnosti provjera je korištenih izvora podataka, a ChatGPT pokazao se problematičnim. Udaljava li nas njegovo korištenje od izvora informacije i kakve će to posljedice imati?

Točno, prema mojem iskustvu, mnoštvo informacija dostupnih na ChatGPT-u nije istinito. Možete od njega tražiti da vam napiše pregled članaka i ono što dobijete izgledat će kao znanstveni rad, ali provjerite li, shvatit ćete da nijedan od tih članaka u stvarnosti ne postoji. Sustav zna koje riječi koristiti i kako uobličiti rečenicu, ali ne zna je li ono što piše istinito ili nije. Možda on i zna, ali mi ne znamo. Dakle, želimo li da nam napiše neko generičko pismo, učinit će to bez problema, ali važnije informacije treba provjeriti jer većinom su, još uvijek, lažne.

Ne otvara li to prostor novim manipulacijama jer se na sustav možemo osloniti samo kod provjere, a ne i pretrage novih informacija?

Apsolutno! To stvara velike probleme pa korisnike treba podsjećati da oni moraju biti ti koji će kritički razmišljati o tome. Barem zasad. Možda ćemo za nekoliko godina moći potpuno vjerovati stroju, ali trenutno ne možemo. Isto je to kao i na Googleu, možete pronaći članak u kojem piše da je Zemlja ravna i povjerovati jer slijepo vjerujete onomu što nađete na internetu. Ovdje informaciji, barem trenutno, ne možemo slijepo vjerovati.

Odgovornost, dakle, ipak ne možemo prepustiti stroju?

Nipošto! I dalje je korisnik taj koji se služi informacijom i mora je provjeriti.

Osim mogućnosti provjere podataka, koje su se prednosti, a koji izazovi u korištenju ChatGPT-a pojavili u njegovu početnom razdoblju?

Prednost je pri rješavanju formalnih stvari. Primjerice, pisanju pisama, slaganju službenih odgovora. Tu je Chat GPT izvrstan alat. Namjerno kažem alat jer želim da ga shvatimo kao alat, kao što je Word ili Google Translator, dakle kao pomoćni alat. S pojavom novih, konkurentskih, proizvođača bit će nam jako velika pomoć i ubrzat će mnoge poslove.

S druge strane, zbog lažnih i neprovjerenih informacija moramo biti jako oprezni. Jer ChatGPT prikladan je i za pripremanje animacija, crtića, može lijepo i brzo generirati slike i videa, ali vidjeli smo koliko štete može nanijeti koriste li se slike stvarnih ljudi na pogrešnim mjestima. Teško je provjeriti istinitost i ljudi često povjeruju pa se nekoga osramoti, a ugled je teško vratiti.

Da razriješimo bojazan tehnofoba današnjice – ima li ovakva umjetna inteligencija jedan centralni mozak?

Rekla bih da nema, da se koristi informacijama s interneta, a on nema vlasnika, nije jedan, raspoređen je na sva računala, a tu podrazumijevam i mobitele spojene na njega. I sve što postoji na nekom od tih uređaja jest izvor informacija za umjetnu inteligenciju. Možda na nekom računalu postoji algoritam koji je prikupio i analizirao podatke, ali mi smo napunili to računalo svojim informacijama. Ne postoji jedan kompjutor koji moramo razbiti da bismo se toga oslobodili.

Jesmo li daleko od toga? Neki znanstvenici predviđaju da će za pedesetak godina postojati superinteligencija, po definiciji inteligentnija od nas, i da će joj stoga biti potrebno ograničiti prostor.

Bojim se da to neće moći napraviti jer jednom puštenu inteligenciju ne možeš zatvoriti. Kao što, recimo, neka firma pokušava zabraniti razvoj da bi ona mogla dosegnuti postignutu najvišu razinu. A čak i kad bi takav dogovor bio postignut, ne vjerujem da bi ljudi prestali razvijati, samo bi se razvoj odvijao u tajnosti. Sjetimo se kloniranja, rečeno je da će se prestati s tim, ali često čitamo o stvaranju umjetnog ovog i onog. Dogovorno nije kloniran čovjek, ali nije se prestalo s tim. Slično je i ovdje, umjetna inteligencija razvijala bi se i dalje, u tajnosti, da bude spremna u slučaju potrebe.

Dakle, vjerujete da objavljeno pismo koje je potpisao i Elon Musk, kojim znanstvenici i stručnjaci pozivaju na usporavanje razvoja umjetne inteligencije, u pozadini ima privatan interes, a ne opću dobrobit?

Da, bilo bi čudno da nema privatnih interesa. Nemoguće je potpuno zaustaviti razvoj umjetne inteligencije. Već sad u osnovnim i srednjim školama djecu učimo kako koristiti umjetnu inteligenciju i kako kritički razmišljati o njezinim rezultatima, dok na fakultetima studenti razvijaju algoritme i uče što je u pozadini. Taj je proces nemoguće prekinuti. Usporiti? Možda, ali trebamo li? Vjerojatno ne jer previše ljudi zna za to da bismo mogli na bilo koji način onemogućiti proces. Uostalom, jednom su mobiteli preokrenuli svijet, potom su isto učinile internetske tražilice koje su ubrzale procese, i ovo je prekretnica koja će ubrzati promjene u svijetu.

Autor Stjepan Banović / PIXSELL

Spomenuli ste kloniranje, što nas dovodi do etičkih pitanja. Kako osigurati da ciljevi umjetne inteligencije budu usklađeni s ljudskim i društvenim vrijednostima? Pogotovo uzevši u obzir njihovu uvjetovanost sociokulturnim kontekstom.

Ne znam, to je teško pitanje. Etikom i pitanjima toga što umjetna inteligencija nosi bavi se čovjek dok oni u čijim su rukama novac i računala nastavljaju razvijati tehnologiju u vojnom smjeru. Znanstvenici su uvjereni da sve rade na dobrobit ljudi, ali prostor za manipulaciju uvijek postoji. No bojim se da mi tu nemamo mnogo utjecaja.

Nije li onda otvoren dijalog jedino rješenje? Pitanje umjetne inteligencije trebalo bi biti interdisciplinarno, no u posljednje vrijeme svjedočimo raslojavanju unutar znanstvenog polja i strogoj podjeli.

Točno, nama tehničarima zanimljivi su novi algoritmi, želimo dobiti nove postotke i ne razmišljamo toliko o posljedicama za ljude, nama su zanimljivi brojevi. O etici se razgovara godinama, sada recimo u slučaju samovoznih automobila. Tko je kriv ako takvo vozilo skrivi nesreću? Je li to proizvođač ili čovjek koji je bio u tom autu? Gdje je granica? To je pitanje o kojem razmišljaju i tehničari i korisnici, budući vlasnici takvih auta. Kod nas u Europi ta grana je nerazvijena baš zbog nereguliranih etičkih pitanja, ali morat će doći do sljubljivanja. Ako živimo s takvom tehnologijom, moramo biti svjesni posljedica na široj razini, razgovarati i sa svih aspekata proučiti pozitivne i negativne strane te pronaći svojevrsnu regulaciju.

Vrijedi li to i za robote? Predsjednica ste Hrvatskoga robotičkog saveza. Koliko su se roboti izmijenili otkad je Karel Čapek prvi put spomenuo u drami R.U.R. do danas?

U Čapekovoj drami napisanoj prije stotinu godina, gdje se spominje ta riječ, roboti nisu bili ovakvi. Čapek je zamislio GMO-ljude, ljudska bića, a ne strojeve, što roboti danas jesu. U to vrijeme zamišljali su da će postojati druga bića, stvorena da nam pomažu i da točno i bez razmišljanja primaju naredbe od ljudi. Roboti su danas mehanička bića, strojevi smišljeni da pomažu ljudima, da rade ono što je opasno ili zamorno kako bi ljudi radili druge stvari. Na takvim su poslovima roboti u velikom postotku zamijenili ljude. Također, posljednjih je godina razvijena potrošačka robotika, roboti koji usisavaju ili kose travu namijenjeni su kućnoj uporabi i ispomoć su u svakodnevnom životu. Za vrijeme pandemije korišteni su roboti za udaljenu prisutnost obitelji u staračkim domovima. No ono u što se najviše ulaže i čega se svi bojimo roboti su za vojnu industriju.

Što za buduće generacije može učiniti Savez?

U Savezu se bavimo edukativnom robotikom, ti roboti izgledaju kao igračke, dolaze u dijelovima ili komadu. Educiramo mlade, njihove učitelje i roditelje kako ih sastavljati, od čega se sastoje, učimo ih što je umjetna inteligencija s pomoću robota baš zato da se nove generacije ne boje strojeva i umjetne inteligencije, nego da nauče kako funkcionira pa da ne budu korisnici u strahu nego da razumiju kako se razvija i da na kraju oni to reguliraju u pravom smjeru. Da ne budu samo sljedbenici, nego predvodnici nekog budućeg razvoja. Dio smo globalnih promjena, nekoliko naših najboljih polaznika sudjeluje na europskim i svjetskim natjecanjima, gdje postižu izvrsne rezultate baš zbog toga što mnogo radimo s njima da se prestanu bojati i da budu educirani. Želimo da naši mladi ne žive u strahu, nego da razumiju tehnologiju, da razbiju strah od mašina jer će s njima živjeti.

Korisno je to i jer se nalazimo u „ili-ili“ diskursu. No do koje su mjere humana i umjetna inteligencija kompetitivne, a kad postaju komplementarne? Mogu li se uopće nadopunjavati?

Nadam se da mogu. Sve više raspravljamo o tome kako nam ChatGPT može pomoći u stvarima koje su nam mrske, a moramo ih obaviti. Nadam se da se mogu nadopunjavati i kad su druge svrhe u pitanju, nadam se da će nam pomoći da brže dođemo do znanja i informacija da se možemo okrenuti onomu što nas zanima raditi u životu.

Jesmo li mi, kao što se često fatalistički predviđa, posljednji ljudi? Je li idući korak nadgradnja čovjeka strojem?

Pitanje je, ako čovjeku ugradimo umjetnu nogu pa može normalno trčati, umjetna ruka, pacemaker, gdje je granica? Ako čovjeku ugrađujemo umjetne dijelove, zašto nečemu umjetnom ne bismo ugradili ljudski dio? Nekad smo sa sobom nosili goleme mobitele, danas možemo platiti mobitelom i pametnim satom.. Dakle, treba vam samo jedan uređaj. Zašto onda ne bismo u ruku ugradili čip pa nećemo nositi ništa? Jednostavnije je. Naravno, pitanje je privatnosti, ali ako smo nekomu zanimljivi, naći će način da nas prati. Uostalom, zašto bi pratio mene, a ostale ne? Ili obrnuto?